Принц Хари, Меган Маркъл призовават за забрана на суперразузнаването на AI, за да спасят човечеството

Принц Хари и Меган, херцогът и херцогинята на Съсекс, се причислиха към разнообразна коалиция от учени, политически водачи, актьори и софтуерни пионери в апела за световна възбрана на създаването на неестествен „ суперинтелект “ – AI системи, способни да превъзхождат хората в множеството случаи познавателни задания – до момента в който има явен теоретичен консенсус, че такава технология може да бъде внедрена безвредно.

Изявлението, проведено от Future of Life Institute (FLI), беше оповестено в сряда и съставлява един от най-широките междусекторни апели до момента за въздържаност в развиването на ИИ. Сред подписалите са пионерите на изкуствения разсъдък Джефри Хинтън и Йошуа Бенгио, съоснователят на Apple Стив Возняк, икономистът Дарън Асемоглу, някогашният консултант по националната сигурност на Съединени американски щати Сюзън Райс, някогашният ръководител на взаимния началник-щаб Майк Мълън, някогашният президент на Ирландия Мери Робинсън, милиардерът Ричард Брансън и даже поляризиращи консервативни фигури като Стив Банън и Глен Бек.

Основното обръщение на изказването от 30 думи гласи: „ Ние призоваваме за възбрана върху развиването на суперинтелигентност, която да не бъде анулирана, преди да има необятен теоретичен консенсус, че това ще бъде направено безвредно и контролируемо, и мощно публично присъединяване. “

Обединен фронт против политически и професионални разделения

Въпреки че апелите за контролиране на сигурността на ИИ са се появявали и преди — в това число По-ранното отворено писмо на FLI в 2023 година приканва за краткотрайна пауза на образованието за напреднали AI — този финален апел се отличава с необятното си идеологическо и професионално разнообразие.

„ Това, което сплотява всички тези хора от целия политически набор, е, че в действителност всички те са хора, а не машини “, сподели Макс Тегмарк, професор от MIT и президент на FLI. „ Те са доста загрижени, че бъдещето би трябвало да бъде такова, в което машините работят за нас – а не като нови цифрови владетели. “

Тегмарк добави, че е бил поощрен да види по какъв начин диалогът за суперинтелигентността „ излиза от балона на фанатиците “ и притегля подписани от политиката, развлеченията, религията и изкуствата.

Принц Хари: „ Истинският тест за напредъка ще бъде какъв брой умно управляваме “

В персонална записка, съпътстваща писмото, принц Хари написа: " Бъдещето на изкуствения разсъдък би трябвало да служи на човечеството, а не да го замества. Истинският тест за напредъка няма да бъде какъв брой бързо се движим, а какъв брой умно управляваме. Няма втори късмет. "

Към него се причисли Меган, херцогинята на Съсекс, която преди този момент е говорила за цифровата нравственос и въздействието на технологиите върху психологичното здраве.

Учени предизвестявам за екзистенциални опасности

Светила на ИИ като Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли, споделиха, че изказването не е антитехнология, а условие за отговорност.

„ Това не е възбрана в нормалния смисъл “, сподели Ръсел. " Това е просто предложение да се изискват съответни ограничения за сигурност за технология, която съгласно нейните разработчици има забележителен късмет да аргументи човешко изгубване. Това прекалено много ли е да се желае? "

Джефри Хинтън, който завоюва премията Тюринг през 2018 година и миналогодишната Нобелова премия по физика за работа, основополагаща за ИИ, и Йошуа Бенгио, негов сътрудник лауреат, също поддържаха възбраната. И двамата все по-често предизвестяват за заплахите от системи, които могат да се развият отвън човешкия надзор.

Двупартийна и световна угриженост

Неотдавнашното изследване на FLI демонстрира, че 73% от американците поддържат мощното контролиране на модерния AI. Отделно изследване на Gallup откри, че 88% от демократите и 79% от републиканците и самостоятелните поддържат надзора от съображения за сигурност и сигурност - което акцентира рядкото двупартийно единение.

Все отново не всички консерватори споделят една и съща паника. Някои, като царя на изкуствения разсъдък от епохата на Тръмп Дейвид Сакс, се опълчват на тежкото контролиране, което може да забави нововъведенията. Тегмарк сподели, че поддържа връзка със Сакс, добавяйки: „ Той желае огромните центрове за данни да вършат страхотни проучвания, само че в никакъв случай не съм чувствал, че е припрян да построи цифров владетел. “

Балансиране на нововъведенията и сигурността

Призивът за възбрана непосредствено провокира софтуерни колоси като OpenAI, Гугъл и Meta, които са в конкуренция за създаване на по-мощни системи, постоянно описвани като доближаващи се до „ неестествен военачалник “ просветеност ” (AGI).

Преамбюлът на писмото предизвестява, че сходни упоритости пораждат закани, вариращи от „ човешкото икономическо остаряване и отнемане от власт, загуба на независимост и достолепие, до опасности за националната сигурност и даже евентуално изгубване на човечеството. “

Акторът Джоузеф Гордън-Левит, различен подписал, написа, че до момента в който AI може да донесе големи изгоди, той не би трябвало да се трансформира в инструмент, който манипулира хората или подкопава творчеството. „ Повечето хора не желаят AI да имитира хората, да подстригва децата ни или да печели милиарди, показвайки реклами “, сподели той.

Цикълът на хайп на AI продължава

Писмото също възобновява дебата в общността на AI за това дали „ суперинтелигентността “ е в действителност неизбежна или просто е пресилена. Някои критици настояват, че страхът от бягащия изкуствен интелект комфортно покачва вложенията и публичния интерес към актуалните технологии.

Все отново Тегмарк предизвести, че бързият прогрес в качествата на изкуствения разсъдък през последните няколко години оправдава сериозна угриженост: „ Има доста звук – само че това не трансформира обстоятелството, че напредъкът на изкуствения разсъдък върви по-бързо, в сравнение с съвсем всеки предвижда. “

Въпреки сходни предизвестия в предишното, огромните компании за ИИ имат непрестанно развиване. Писмото на FLI от 2023 година, подписано от Илон Мъск, не съумя да спре конкуренцията във въоръжаването – макар че Мъск по едно и също време започва личното си конкурентно начинание за ИИ.